Dinámica Rotacional: Cómo los Transformers Rechazan Respuestas
Descubre cómo los transformers separan respuestas correctas de incorrectas mediante una dinámica rotacional en sus capas ocultas. Un estudio revela patrones geométricos sorprendentes.
#capas ocultas
La geometría del robo de modelos en la última capa
Descubre cómo la geometría explica el robo de modelos: condiciones exactas para copiar la última capa y los límites de las capas ocultas. Clave para seguridad.
Entrenamiento conjunto de capas en redes ReLU para modelos lineales
Aprende cómo el descenso de gradiente logra convergencia lineal en redes ReLU, evitando puntos silla y alcanzando el mínimo global.